Ochir retweeted
Что дал ИИ в программировании? Теперь в 5-10 раз быстрее выкатываются новые ненужные фичи и сервисы с бо́льшим количеством дыр, а скорость всемирного потепления выросла. И без ИИ нельзя, потому что обгонят конкуренты и не возьмут на работу. Замечательный таймлайн
Инсайтики по найму from me
Сейчас не наняли на работу сеньора, который фулстек и вёл успешный проект отначала до готового продукта
Только потому что он не пользуется и не умеет пользоваться llm
Мой СТО сказал что, даже ментально в навыке использования llm дойти до того уровня, например на котором нахожусь я - этому сеньору понадобится много времени.
А СТО хочет набирать команду из 2х фулстеков на llm и чтобы они быстро фигачили проект под ключ.
Такая действительность на сегодняшний день.
Ochir retweeted
𝗟𝗟𝗠𝘀 𝗔𝗿𝗲 𝗡𝗼𝘁 𝗥𝗲𝗮𝗱𝗶𝗻𝗴 𝗬𝗼𝘂𝗿 𝗖𝗼𝗱𝗲
We keep calling LLMs "AI coding assistants." But writing code and understanding code are not the same thing. Researchers from Virginia Tech and Carnegie Mellon University just ran 750,000 debugging experiments across 10 models to determine how well LLMs actually understand code.
The results show that you should not blindly trust your AI coding assistant when debugging.
Here is what they found:
𝟭. 𝗔 𝗿𝗲𝗻𝗮𝗺𝗲𝗱 𝘃𝗮𝗿𝗶𝗮𝗯𝗹𝗲 𝗯𝗿𝗲𝗮𝗸𝘀 𝘁𝗵𝗲 𝗱𝗲𝗯𝘂𝗴𝗴𝗲𝗿
Researchers created a bug, confirmed that the LLM found it, then made changes that don't touch the bug at all, such as renaming a variable or adding a comment. In 78% of cases, the model could no longer find the same bug. The bug was still there. The variable names and comments changed, and that was enough.
𝟮. 𝗗𝗲𝗮𝗱 𝗰𝗼𝗱𝗲 𝗶𝘀 𝗮 𝘁𝗿𝗮𝗽
Adding code that never runs reduced bug-detection accuracy to 20.38%. Models treated dead code as live, and flagged it as the source of the bug. But the bug was in another line. So, LLMs cannot reliably distinguish "this runs" from "this never runs."
𝟯. 𝗠𝗼𝗱𝗲𝗹𝘀 𝗿𝗲𝗮𝗱 𝘁𝗼𝗽-𝘁𝗼-𝗯𝗼𝘁𝘁𝗼𝗺, 𝗻𝗼𝘁 𝗹𝗼𝗴𝗶𝗰𝗮𝗹𝗹𝘆
56% of correctly found bugs were in the first quarter of the file. Only 6% were in the last quarter. The further down the code, the less attention the model pays to it. If the bug lives in the bottom half of your file, the model is already less likely to find it.
𝟰. 𝗙𝘂𝗻𝗰𝘁𝗶𝗼𝗻 𝗿𝗲𝗼𝗿𝗱𝗲𝗿𝗶𝗻𝗴 𝗮𝗹𝗼𝗻𝗲 𝗰𝘂𝘁 𝗮𝗰𝗰𝘂𝗿𝗮𝗰𝘆 𝗯𝘆 𝟴𝟯%
Changing the order of functions in a Java file caused an 83% drop in debugging accuracy. The code still remained the same. Where the code physically sits in the file matters more to the model than what the code does. So, obviously, this is a sign of pattern recognition, not real code understanding.
𝟱. 𝗡𝗲𝘄𝗲𝗿 𝗺𝗼𝗱𝗲𝗹𝘀 𝗵𝗮𝗿𝗱𝗹𝘆 𝗺𝗼𝘃𝗲 𝘁𝗵𝗲 𝗻𝗲𝗲𝗱𝗹𝗲
Claude improved ~1% between 3.7 and 4.5 Sonnet on this task. Gemini improved by ~1.8%. Every model release comes with a new benchmark leaderboard and new headlines. But the ability to reason about code under realistic conditions is improving slowly.
𝟲. 𝗧𝗵𝗲𝘀𝗲 𝘄𝗲𝗿𝗲 𝗯𝗲𝘀𝘁-𝗰𝗮𝘀𝗲 𝗰𝗼𝗻𝗱𝗶𝘁𝗶𝗼𝗻𝘀
The study used single-file programs with ~250 lines, and each had a clear description of what the code should do. The authors say this was intentional. They wanted the best-case conditions. Real production code is multi-file, cross-module, and poorly documented. It will perform worse for sure.
Here are three things worth changing based on the research:
🔹 𝗣𝗮𝘀𝘀 𝗲𝘅𝗲𝗰𝘂𝘁𝗶𝗼𝗻 𝗰𝗼𝗻𝘁𝗲𝘅𝘁, 𝗻𝗼𝘁 𝗷𝘂𝘀𝘁 𝗰𝗼𝗱𝗲. When asking an LLM to debug, include test output, stack traces, and failure messages alongside the source. Without runtime details, the model is guessing based on the code.
🔹 𝗗𝗼𝗻'𝘁 𝘁𝗿𝘂𝘀𝘁 𝗶𝘁 𝗼𝗻 𝗱𝗲𝗲𝗽-𝗳𝗶𝗹𝗲 𝗯𝘂𝗴𝘀. If the suspect code is in the bottom third of a long file, the model will have trouble finding it. Consider splitting the context or feeding the relevant function directly.
🔹 𝗖𝗹𝗲𝗮𝗻 𝘂𝗽 𝗱𝗲𝗮𝗱 𝗰𝗼𝗱𝗲 𝗯𝗲𝗳𝗼𝗿𝗲 𝘂𝘀𝗶𝗻𝗴 𝗔𝗜 𝗱𝗲𝗯𝘂𝗴𝗴𝗶𝗻𝗴 𝘁𝗼𝗼𝗹𝘀. Commented-out blocks and unreachable branches will mislead the model. It cannot filter them out.
We rate AI coding tools on HumanEval. That tests whether a model can write a function from a description, but this says nothing about finding a bug in code it didn't write.
Those are different problems. We're using the wrong benchmark.
Токио полон интересных людей. Женщина синтоистка Мицуко подошла и спросила можно ли за меня помолиться минуту. Помолилась по японски, мы немного поговорили с помощью Гугл переводчика, поблагодарили друг друга и разошлись #tokyo
1
30
США признали существование НЛО (пока без признания инопланетян) edition.cnn.com/2023/07/26/p…
73
Ochir retweeted
Kaspersky Lab and @ParityTech Launch Blockchain-Based Voting System bitcoinmagazine.com/articles…
Ochir retweeted
Я стараюсь не думать об окружающем мире слишком серьезно. Уж больно беспорядочен этот мир для серьезных раздумий.
Харуки Мураками. Светлячо
Ochir retweeted
Ненавидя кого-то, ты ненавидишь в нем нечто такое, что есть в тебе самом. То, чего нет в нас самих, нас не волнует.
Герман Гессе
"..В конечном счёте, мы можем оценить значение своей жизни только ценностью для других." youtu.be/pHaq9EWPV4g
1
Счастье это привычка, которая тренируется через практику. Современная наука подтверждает давно известный факт.
healthvesti.com/news/2015322…
Москва маленький город .Периодически встречаю в публичных местах знакомых из родного города, которых несколько лет не видел.
Бьюти-география: как выглядит настоящая калмычка lady.mail.ru/article/485117-…
Mindfulness meditation helps fight insomnia, improves sleep health.harvard.edu/blog/mind…
Основные 10 вещей, которые я осознал за 35 часов медитации на прошлой неделе megamozg.ru/p/8428/ via @megamozg_ru #megamozg
Россия глазами журналистов BBC (англ.).
BBC Russia On Four Wheels
Ep.1
youtu.be/C-7clPmLu34
Ep. 2
youtu.be/NV5VZnh6GRo







